全球數字經濟的背景下，隨著產業的不斷發展，各種新技術、新產業和新模式也在此基礎上不斷地涌現，人工智能技術也在不斷地優化和迭代，在各行業各領域取得了廣泛運用，通過數字經濟的推動使得數據成為了一項全新的生產要素[1]。

隨著人工智能在數字經濟、數字產業中的不斷應用和優化，數據也得到了充分地開發和利用，使得數據成為各行業的核心驅動力，從驅動個性化服務到優化操作流程，它貫穿于決策制定、產品創新、客戶服務和效率提升的各個環節。

各行業對數據的依賴程度之高前所未見。數據在不同的主體、不同的場景下以不同的形態在不斷地流轉與智能應用，隨之帶來的數據泄露、數據破壞、數據違法違規使用等等各類數據安全事件也是層出不窮。

近年來，隨著我國《網絡安全法》《數據安全法》《個人信息保護法》的相繼出臺，數據安全逐漸成為國家安全的重要組成部分，關系到國家主權的穩固及社會經濟的發展。所以，在人工智能時代，數據安全已成為必修課，是需要全社會共同面對和解決的關鍵問題。

01 人工智能技術概述

人工智能正加速發展，且廣泛應用于社會生活的方方面面，從生物特征識別、計算機視覺、人機交互、機器學習、知識圖譜、自然語言處理到大模型的應用，人工智能不斷推動著行業革新和產業升級。

生物特征識別技術使得設備更安全、個性化，廣泛應用于智能手機解鎖、機場安檢等場景。

計算機視覺技術讓機器能夠理解和解釋視覺信息，在新能源汽車自動駕駛和醫療診斷中的影像分析等場景下獲得了顯著的應用效果。

人機交互技術的進步使智能設備的使用體驗更加友好，如通過語音助手和自動翻譯工具打破語言障礙，通過手勢和情感識別等技術使得人機交互更加自然。

機器學習在數據分析和預測中占據核心地位，從金融風控到智能推薦系統，其應用無處不在。

知識圖譜幫助機器理解和組織海量信息，可用于改進搜索引擎和智能問答系統。

自然語言處理使計算機能更流暢地理解人類語言，廣泛應用于聊天機器人和語音識別分析系統。

最近，大模型的應用推動了這些技術的融合與創新，如生成式預訓練變換器模型在文本生成、圖像識別等多模態任務中展現出了驚人能力。這些技術的結合和交叉應用不僅擴展了人工智能的邊界，也為我們解決更多復雜問題提供了可能，標志著人工智能正逐步成為現代社會不可或缺的一部分，為我們的生產和生活提供了諸多創新和便利[2]。

02 人工智能在數據安全中的雙刃特性

人工智能既能推動經濟社會發展，也會帶來各種類型的安全風險，是一把雙刃劍[3]。伴隨著人工智能的不斷應用，使得其在網絡安全領域的風險也日益凸顯，尤其是數據安全問題，需要引起大家的高度重視。

一是人工智能應用的合法合規問題，不法商家可利用人工智能技術對消費者進行價格欺詐、虛假宣傳、誘導消費、侵犯隱私等違法行為。犯罪分子可利用人工智能技術實施生物特征偽造、精準詐騙、智能駕駛攻擊等犯罪行為。

二是人工智能的發展需要大量的數據來訓練和優化模型，一旦數據在采集或處理過程中遭受到篡改、破壞和濫用，會對人工智能的性能和可信度產生不可預見的影響。

三是人工智能降低了安全攻擊的門檻，使得安全攻擊方式更加多變、攻擊頻次更高、攻擊行為更加精準，進一步加劇了數據安全風險。

圖1 人工智能在數據安全領域的雙刃劍效應

正因為人工智能具有雙面性，過分放大其優點或者弊端都是不可取的，各行業各領域在進行創新應用時都應當先充分理解人工智能的雙重性質（如圖1）。人工智能的高速發展加劇了數據安全風險，數據安全亦是人工智能健康發展的關鍵保障，利用人工智能又能全面提升數據安全的綜合能力。

我們需要采用辯證和積極的心態來理解人工智能時代的數據安全保障工作，在全面分析數據安全風險的基礎上，充分挖掘數據安全管理和技術等各方面的智能化需求，再合理利用人工智能來使得數據安全保障工作更加高效、有序。

03 數據安全領域下的智能化需求

數據安全是一項體系化、持續性、需要多角色協同參與的復雜工程，從規則、建設、使用的視角來看，數據安全工程內容包含戰略方針制定、管理體系建設、技術能力建設、持續安全運營等主要環節。

1、在戰略方針制定階段，需要結合合規政策、業務發展、風險控制、技術創新等各方面信息和情報，進行分析和決策，明確數據安全工作的目標和路徑。

2、在管理體系建設階段，面對多角色的協同機制、復雜的數據安全合規要求、業務場景下的數據安全風險，需要制定涵蓋從戰略方針、管理要求、規范指導、執行過程的制度文件體系，且需要定期更新和優化[4]。

3、在技術能力建設階段，需要考慮如何利用成熟穩定的數據安全技術來實現數據全生命周期過程的有效管控和保護，其中還需要重點考慮新技術和新架構與傳統方案的融合。

4、在持續安全運營階段，需要遵循管理要求和流程，利用技術工具，圍繞數據處理活動的全生命周期開展數據安全識別、防護、檢測、響應和恢復等常態化事務。

結合以上數據安全體系工程各環節的主要工作內容，綜合分析來看，數據安全工作的難度和挑戰，可以從四個方面進行分析。

一是數據識別與梳理的挑戰。數字經濟生態下的數據規模大、且類型繁多，依賴傳統工具結合人工梳理、盤點的治理方式已無法滿足當下數據應用的需求。

二是數據處理活動監測的挑戰。隨著數字化轉型與企業業務的深度融合，各業務活動的融合和協同，使得數據應用和流轉更加頻繁，數據面臨的各類處理活動更加豐富和多元，依靠傳統的監測和分析技術已經無法全局感知數據的分布和流轉態勢。

三是數據安全保護效率和準確性的挑戰。面臨大規模、不斷流轉和變化的數據，隨之而來是不斷變化和升級的數據安全威脅，如何借助新技術、新架構來降低各類數據安全威脅利用脆弱性的風險，并將影響程度控制到最低，是當前需要重點關注的問題。

四是數據安全日常管理的挑戰。例如數據安全管理體系的制定和維護、數據安全監督檢查、數據安全審計評估、數據安全考核評價等管理事務，涉及到對上級多層級法律政策和監管要求的銜接，也涉及到與業務管理、數據管理、傳統網絡安全管理工作的協同和配合，如何利用人工智能技術提升數據安全管理的協同效率，提升管理過程中的文案編制效率也是需要面臨的重要挑戰。

04 人工智能在數據安全領域的應用

面對人工智能時代下的復雜數據安全問題，本文認為其破局關鍵便是通過人工智能全面賦能數據安全管理和技術的各個環節，通過各類人工智能技術與傳統解決方案的融合，構建智能化的數據安全體系。

本文認為可以從下述幾個方面展開數據安全智能化的建設。

一、數據安全決策輔助

通過人工智能技術從海量合規政策、威脅情報、行業動態、最佳實踐中快速識別和學習規律，從中挖掘和分析出有價值的信息，并進行智能化的決策分析，為領導層針對性地提供適合組織合規監管、業務發展、風控防范所需的數據安全方針和策略。

在合規政策分析方面，自然語言處理技術能夠自動解讀和比較法律法規文本，幫助企業快速了解政策變化并保持合規。

其次，威脅情報分析中，機器學習和數據挖掘技術協同工作，通過分析歷史威脅數據識別模式，預測未來可能的威脅趨勢。在行業動態分析方面，機器學習用于梳理和分析行業報告和新聞，提供市場趨勢的定量預測。

最后，在最佳實踐分析過程中，知識圖譜技術能夠將不同來源的最佳實踐知識整合起來，形成易于查詢的知識庫，以支持決策制定。通過人工智能在安全戰略規劃中提供全面的分析和決策支持，從而提高規劃的效率和質量。

二、數據安全智能評估

數據安全評估過程中，涉及到問卷調查、人員訪談、文檔查閱、配置查驗、旁站驗證、技術檢測、專家分析、編制報告等多個步驟，要求評估人員具備豐富的專業知識和實踐經驗，且每個環節都需要投入大量人力。

將人工智能技術應用到數據安全評估過程中，一方面可以降低實施人員技術門檻，另一方面也能極大程度提升評估過程的效率和質量。

實現智能評估的過程中，主要采用自然語言處理、機器學習、知識圖譜等技術。

首先，通過知識圖譜構建動態更新的評估指標知識庫。

其次，利用機器學習和自然語言處理生成調研問卷。

然后，利用流程自動化技術，能夠按照預設的邏輯自動下發問卷，確保信息收集的及時性和規范性。

接著，通過智能填報技術，可實現對調研信息的智能識別和自動填充，能夠準確解析問卷內容并輔助工作人員快速完成信息錄入。

最后，通過數據整合分析技術，自動對收集到的信息進行清洗、分類和匯總，自動生成評估報告，并利用機器學習算法模型挖掘數據間的關聯和趨勢，為后續的風險分析提供科學、精準的數據支撐。

三、智能制定數據安全制度

數據安全合規管理過程中面臨著來自國家、地區、行業等多層次不同維度的監管，企業在建立數據安全管理體系時，需要以合規為基線，銜接各方面監管要求，將數據安全責任與義務轉化為企業的數據安全管理內容。在合規政策的匯編、責任事項的分解、工作任務的分配、安全要求的設計等方面需要投入大量人工開展文案工作。

在人工智能時代下，應當利用自然語言處理、機器學習等技術來提升寫作效率和質量，可以利用詞法分析、實體抽取、實體鏈接、語言模型等自然語言處理技術來解析各類合規政策文件，提取責任義務相關條款。進一步利用語言模型、詞法分析、語義相似度等技術，建立企業內部數據安全管理要求與法律法規、行政法規、部門規章、地方規章、技術標準等文件之間的關聯關系，當這些文件發生變化時，可以自動化提示管理人員，并給出修改建議，不斷更新和維護企業數據安全管理體系。

四、智能預測數據安全風險

人工智能技術可以通過大規模數據分析，準確地識別和預測各類數據安全風險。

首先，需要選擇選取可解釋性強的深度學習模型，為實現有效識別數據安全風險的目的，可以采取可解釋的卷積神經網絡、膠囊網絡、神經網絡決策樹等方法[5]。其次，對特征分量進行識別與提取。然后，構建基于語義的數據處理活動行為風險知識庫，通過對網絡流量、應用日志、安全日志數據等信息進行實時監測和融合分析，自動識別異常行為和惡意攻擊等數據安全威脅，預測可能發生的數據安全風險。

五、智能識別敏感數據

通過機器學習、自然語言處理技術識別數據集中的關鍵信息和模式。

首先，可以收集包含企業各類數據的訓練集，對每個樣本進行標記，為后續模型訓練提供基礎。然后，從原始數據中提取關鍵特征，以便機器學習算法更好地理解數據。接著，基于自然語言處理技術對數據內容進行處理后，進行特征匹配后選擇適當的算法。最后，通過訓練集對選定的算法進行反復訓練，系統學習以后會提煉出這些文件的共同點生成敏感數據模型，將經過訓練和評估的模型部署到實際應用中，用于實時監測和識別敏感數據。

六、數據安全智能管控和保護

數據在全生命周期視角下需要通過訪問控制、脫敏、加密等等一系列安全措施進行管控和保護，然而在應對大規模的數據體量、密集的流動頻次、多樣化的數據種類，安全措施在實施前，會面臨大量的數據梳理、場景分析、風險分析和安全規則設計工作，有效利用人工智能技術能夠大幅提升數據安全管控和保護工作效率和準確性。

一是可以通過生物特征識別技術加強數據處理過程中的身份鑒別的安全性和效率。

二是可以基于自然語言處理和機器學習技術，實現數據的智能脫敏和脫敏效果的智能檢測。

三是可以通過隱私計算技術體系中的聯邦學習技術，確保在數據處理和機器學習過程中的數據安全保護。

四是通過人工智能技術，實現數據安全保護策略、數據安全組件規則的智能聯動。

首先，基于自然語言處理對數據安全保護策略進行解析和學習，結合角色、場景、數據、操作的標簽屬性定義，生成各類數據安全組件的推薦配置。然后，通過基于機器學習技術持續動態關聯數據安全風險的監測和預測結果。在智能響應數據安全風險事件的同時，結合對安全組件歷史配置數據和設備性能分析，動態更新和維護安全組件配置規則。

七、數據安全行為智能考核

在安全受控的關鍵場所內，部分單位已經通過采用計算機視覺、人機交互技術、自然語言處理等人工智能技術，實現了對工作人員的日常交流、語音通訊、即時聊天、數據處理、網頁瀏覽、郵件收發等場景的監測與分析。

同時，這些單位還通過機器學習算法考核并預測可能存在的數據泄露風險，并對潛在風險的工作人員及時開展教育和輔導。這不僅提升了工作人員的安全意識、建立了企業安全文化，也極大地降低了數據泄露的安全隱患。

05 展望

隨著人工智能技術的不斷演進，在網絡及數據安全領域，未來將呈現出機器對機器的網絡安全攻防對抗場景，表現為智能攻擊和智能防御的博弈。攻擊方將能夠利用人工智能技術自動搜尋系統的弱點并發起快速且精確的攻擊，而防御方則能夠即時識別這些攻擊模式，并自動部署相應的防御措施進行攔截和修復。

此情形下安全防御關鍵點在于要利用人工智能技術去構建持續學習和自適應變化的關鍵能力，以長效的智能化安全能力來擴大防御方優勢。

防御系統不僅要能夠學習已有的攻擊特征，還要具備應對全新攻擊威脅的能力。此外，網絡及數據安全產業生態的有效協同也至關重要，通過共享情報和資源，協同形成一個互聯互通的強大防御網絡，從而來提高整個智能化生態系統的安全性與韌性。同時，制定前瞻性的政策和法規，確保人工智能技術的倫理使用，這也是保障安全的重要環節。

作者：天融信科技集團 艾龍

參考文獻

[1]王敬勇,華雨倩. 數字經濟時代下企業數據安全面臨的挑戰及應對——以滴滴為例[J]. 當代經濟,2023,40(3):12-18.

[2]袁云佳.人工智能的發展與應用綜述[J].科技風,2020(17):25-26.

[3]吳沈括,石嘉黎.數據安全視域下的人工智能風險應對研究[J].西北工業大學學報（社會科學版）,2019(2):95-103.

[4]艾龍.數據安全管理職責劃分和追責機制探析[J].信息安全研究,2023,9(1):73-78.

[5]賈曉旭.基于可解釋人工智能的數據安全風險識別研究[J]. 信息系統工程,2024(1):50-54.s